Dãy Xn hội tụ về X theo xác suất nếu

lim n → ∞ P ( | X n − X | ≥ ε ) = 0 {\displaystyle \lim _{n\rightarrow \infty }P\left(\left|X_{n}-X\right|\geq \varepsilon \right)=0}

với mọi ε > 0. Hội tụ theo xác suất thật ra là sự hội tụ của xác suất.

Hội tụ theo xác suất được ký hiệu bằng cách thêm chữ 'P' vào phía trên mũi tên chỉ sự hội tụ over:

X n P ⟶ X . {\displaystyle X_{n}\,{\begin{matrix}{\,}_{P}\\{\,}^{\longrightarrow }\\\quad \end{matrix}}\,X.}

Hội tụ theo xác suất cũng là khái niệm hội tụ đề cập trong luật số lớn (yếu).Hội tụ theo xác suất suy ra sự hội tụ theo phân phối. Để chứng minh điều này, ta cần chứng minh được bổ đề sau:

Bổ đề

Cho X, Y là các biến ngẫu nhiên, c là một số thực và ε > 0; khi đó

Pr ( Y ≤ c ) ≤ Pr ( X ≤ c + ε ) + Pr ( | Y − X | > ε ) . {\displaystyle \Pr(Y\leq c)\leq \Pr(X\leq c+\varepsilon )+\Pr(\left|Y-X\right|>\varepsilon ).}

Chứng minh bổ đề

Pr ( Y ≤ c ) = Pr ( Y ≤ c , X ≤ c + ε ) + Pr ( Y ≤ c , X > c + ε ) {\displaystyle \Pr(Y\leq c)=\Pr(Y\leq c,X\leq c+\varepsilon )+\Pr(Y\leq c,X>c+\varepsilon )} = Pr ( Y ≤ c | X ≤ c + ε ) Pr ( X ≤ c + ε ) + Pr ( Y ≤ c , c < X − ε ) {\displaystyle =\Pr(Y\leq c\vert X\leq c+\varepsilon )\Pr(X\leq c+\varepsilon )+\Pr(Y\leq c,c<X-\varepsilon )} ≤ Pr ( X ≤ c + ε ) + Pr ( Y − X < − ε ) ≤ Pr ( X ≤ c + ε ) + Pr ( | Y − X | > ε ) {\displaystyle \leq \Pr(X\leq c+\varepsilon )+\Pr(Y-X<-\varepsilon )\leq \Pr(X\leq c+\varepsilon )+\Pr(\left|Y-X\right|>\varepsilon )}

vì

Pr ( | Y − X | > ε ) = Pr ( Y − X > ε ) + Pr ( Y − X < − ε ) ≥ Pr ( Y − X < − ε ) . {\displaystyle \Pr(\left|Y-X\right|>\varepsilon )=\Pr(Y-X>\varepsilon )+\Pr(Y-X<-\varepsilon )\geq \Pr(Y-X<-\varepsilon ).}

Chứng minh hội tụ theo xác suất suy ra hội tụ theo phân phối

Với mọi ε > 0, từ bổ đề trên, ta có:

P ( X n ≤ a ) ≤ P ( X ≤ a + ε ) + P ( | X n − X | > ε ) {\displaystyle P(X_{n}\leq a)\leq P(X\leq a+\varepsilon )+P(\left|X_{n}-X\right|>\varepsilon )} P ( X ≤ a − ε ) ≤ P ( X n ≤ a ) + P ( | X n − X | > ε ) {\displaystyle P(X\leq a-\varepsilon )\leq P(X_{n}\leq a)+P(\left|X_{n}-X\right|>\varepsilon )}

Vì vậy ta có

P ( X ≤ a − ε ) − P ( | X n − X | > ε ) ≤ P ( X n ≤ a ) ≤ P ( X ≤ a + ε ) + P ( | X n − X | > ε ) . {\displaystyle P(X\leq a-\varepsilon )-P(\left|X_{n}-X\right|>\varepsilon )\leq P(X_{n}\leq a)\leq P(X\leq a+\varepsilon )+P(\left|X_{n}-X\right|>\varepsilon ).}

Lấy giới hạn khi n → ∞ {\displaystyle n\rightarrow \infty } , ta được:

P ( X ≤ a − ε ) ≤ lim n → ∞ P ( X n ≤ a ) ≤ P ( X ≤ a + ε ) . {\displaystyle P(X\leq a-\varepsilon )\leq \lim _{n\rightarrow \infty }P(X_{n}\leq a)\leq P(X\leq a+\varepsilon ).}

Vì P ( X ≤ a ) {\displaystyle P(X\leq a)} là hàm phân phối tích lũy F X ( a ) {\displaystyle F_{X}(a)} , theo giả thuyết là liên tục, nghĩa là

lim ε → 0 + F X ( a − ε ) = lim ε → 0 + F X ( a + ε ) = F X ( a ) , {\displaystyle \lim _{\varepsilon \rightarrow 0^{+}}F_{X}(a-\varepsilon )=\lim _{\varepsilon \rightarrow 0^{+}}F_{X}(a+\varepsilon )=F_{X}(a),}

do đó, lấy giới hạn khi ε → 0 + {\displaystyle \varepsilon \rightarrow 0^{+}} , ta được

lim n → ∞ P ( X n ≤ a ) = P ( X ≤ a ) . {\displaystyle \lim _{n\rightarrow \infty }P(X_{n}\leq a)=P(X\leq a).}